Automata from Agent Traces: Failure and Next-Step Prediction
从 Agent 轨迹中提取自动机：失败与下一步预测
🧭 Agent 行为 FSM 抽象与监控 ★ 深度解读
Holistic AI · PUC-Rio · University College London
用紧凑确定性 FSM 统一 LLM Agent 的工作流记忆、下一步预测、失败预测与运行时监控
📌 工作参考价值（4 点）
- 将电商客服/购物助手 Agent 的 tool-call/action 序列直接抽成 FSM（状态=最近 activity），即可获得紧凑行为拓扑，用于实时检测循环和异常状态，无需复杂 ML 模型；活动抽取用默认 role-type 粒度即可，对结果鲁棒。
- 把 FSM 状态作为 LLM 的轻量上下文：只给当前状态的转移概率 + top-15 后续 continuation，而不是完整 workflow 列表，能提升下一步动作预测（对 AWM 平均 +12.9pp）。在推荐/搜索 Agent 中可将用户意图-工具调用序列压缩为状态，作为 prompt 背景。
- 失败预测用 per-state 特征（访问频率、消息长度、错误率、时序）+ FSM cross-entropy 异常特征（trace CE、max surprise 等），梯度提升树即可达到 AUROC 0.94；对安全标注均衡的数据集（如 ATBench）稳定。可用于电商推荐 Agent 的在线失败预警。
- 在线监控用 cycle-rate（prefix revisits / step）阈值，简单高效；设置高精度操作点可实现 100% precision、零误报的提前终止，在客服流程中节省算力并避免糟糕体验。